Generative Retrieval for E-commerce: Jointly Learning Embedding and Codebook with Same Product Cluster
电商生成式检索：联合学习 Embedding 与 Codebook 的同商品簇一致性方法
🧭 生成式检索 · 联合训练 Embedding/Codebook ★ 深度解读
Alibaba Group
用同商品簇信息联合训练 embedding 与 codebook，消除两阶段误差累积，提升生成式电商检索召回
📌 工作参考价值（4 点）
- 电商场景中，可利用商品簇（同 SKU/同款不同卖家）作为强监督：对每个商品采样同簇商品并计算均值 embedding，加 MSE 拉近商品 embedding 与簇均值，能显著提升 Semantic ID 的一致性；可直接复用现有商品关系（ASIN/货号）构造训练信号。
- 避免两阶段训练：将 RQ-VAE 的 codebook 与 embedding model 联合优化，同时引入 query-product 对比学习，让 codebook 不再只依赖静态商品 embedding；实现时可将 InfoNCE 分别加在原始 embedding 和量化重构表示上，端到端对齐查询与商品空间。
- 引入新 token 的 LLM 微调可采用两阶段：先 product info -> product ID，再 query -> product ID，让模型先掌握新特殊 token 的语义，再学习查询到 ID 的映射，对生成式检索 fine-tune 更稳定。
- 规模配置可参考：5 层 codebook、每层 32 码、768 维、GTE 编码器、Qwen2.5-7B；20M 商品 + 40M query 训练即可获得稳定提升；ALSP 指标适用于评估同簇商品 ID 的一致性。